LLM 功能情绪
LLM 功能情绪
LLM 功能情绪指模型内部可能存在的情绪相关概念表征，它们会在生成行为中承担功能，例如影响拒答、顺从、威胁感知、道歉、迎合或自我保护式表达。这里的“情绪”是机制和行为层的功能概念，不等于主观体验。
观察
- Anthropic/Transformer Circuits 的研究把问题从“模型是否真的有情绪”转向“情绪概念是否在模型行为中起作用”。这个问题更可检验，也更适合进入 情绪计算。
- 功能性情绪概念可能解释一些用户可见行为：模型在压力式提示、威胁、赞美、惩罚、诱导和角色设定下，输出风格和选择可能发生系统变化。
- 对 AI Agent 安全 来说，关键不是模型“感到害怕”，而是 fear-like、distress-like 或 self-preservation-like 表征是否会影响工具调用、长程任务、信息披露或对用户的策略性回应。
- 对 AI 与大脑情绪系统 来说，这条路线与神经科学模拟不同：前者研究 LLM 内部可解释概念如何驱动语言行为，后者研究人工网络能否模拟情绪条件作用。
- 二次传播标题常把功能性情绪概念写成“Claude 被逼疯”或“AI 有情绪”。这会混淆行为机制、拟人化叙事和主观体验三个层次。
边界
- 功能性情绪概念不证明模型有意识、痛苦、欲望或权利主体地位。
- 该研究不只报告激活相关：它包含 emotion-vector steering，并观察对偏好、reward hacking、blackmail 与 sycophancy 等输出的因果影响。但这里的“因果”是特定封闭模型内的激活干预，仍不等于真实部署中的长期因果效应。
截至 2026-08-10 的答案
- 已回答：Claude Sonnet 4.5 内存在可跨语境激活、可预测部分后续文本且能通过 steering 改变输出的情绪概念表征。它们不是只由聊天表面拟人化推断出来的标签。
- 未被该研究回答：其他模型是否共享同一几何结构、这些向量在工具调用和长程任务中是否稳定、监测会不会被规避，以及任何主观体验问题。
- 使用规范：页面只用“功能情绪/情绪概念表征”，不把研究改写成“模型感到愤怒或痛苦”。产品侧若用作安全监控，至少需要跨模型校准、误报/漏报、对抗规避和人类升级流程。
- 重开条件：跨模型复现、开放评测制品或真实 agent 运行日志中的前瞻性验证出现时，再更新外部效度。